在開始之前,先交代一下背景。這篇文章原本是我準備參加 iThome 鐵人賽 30 天挑戰 的前言,主題是 AI x Hardware。
我從 ChatGPT 3.5 (免費方案) 開始接觸生成式 AI,一路玩到現在,過程中試過各種有趣的組合:AI + 軟體、AI + 硬體、甚至 AI + 生產線。因為我自己本身就喜歡做 PoC、測試新工具,也常常參與一些 NPO 組織 的專案,所以就形成了一些比較特別的應用場景。
這篇文章就想用比較「分享」的方式,把我過去的實驗與心得整理起來,尤其是我很喜歡的 RAG (Retrieval-Augmented Generation) 應用模式,並延伸到各種實際案例。
如果把 RAG 拿來比喻,我覺得它很像 《魔法科高中的劣等生》裡達也的魔法構築方式。
達也不是單純依靠強大魔力的人,而是透過對「魔法理論」和「演算」的精準掌握,把看似笨重的魔法轉化為最有效率的戰鬥力。
RAG 的運作就跟這樣很像:
這個過程很「工程師思維」,不是憑空生成,而是 有根據的生成。所以我自己在做 AI x Hardware 專案時,RAG 幾乎是核心必備。
有一個 NPO 工廠專案,我們使用 開源 Odoo ERP 系統來處理流程自動化。
挑戰在於:
這裡就用到 AI 來做 流程優化建議,甚至用 ChatGPT 來協助開發模組的草稿程式碼,再交給工程師修正。比起傳統的 IDE 生成方式,直接透過網頁對話式的問答更省 Token,也更直覺。
另一個案例是在海外義診中心,結合 軟體 + 硬體。
AI 在這裡的角色是 流程串接與資料標準化,避免人力不足時資料混亂。RAG 的方式可以幫忙把醫療知識庫、流程文件整合進來,讓現場志工可以快速得到指引。
這個比較偏趣味 & 教學應用。
我曾經用 Micro:bit 做過客製化模組驅動的小車,AI 幫忙的地方有:
這種小型專案其實是最能感受到 AI 「加速學習曲線」的地方。
智能販賣機通常牽涉到:
這裡 AI 幫忙做的事是 重構程式碼,以及提供一些 演算法優化建議。有時候連韌體的 C 語言程式碼都可以丟給 AI 請它幫忙優化,雖然不可能完全照單全收,但可以省下很多 Debug 的時間。
這個是做風力發電設備的 PoC 優化。AI 幫忙的地方主要在:
這算是比較工程導向的應用案例。
在金流設備或電子發票的整合上,AI 主要扮演:
這裡 AI 的價值比較明顯,就是「節省開發人員翻文件的時間」
除了技術應用之外,我也常用 AI 來做行銷相關的產出:
這種應用算是 AI 的「輔助創作」,成本低,而且能快速迭代。
很多人會想:為什麼不用 IDE 直接生成程式碼?
我的經驗是 —— 網頁問答式 (Chat UI) 的方式更划算。
反而透過 ChatGPT/Claude 的「問答對話」,可以一步步拆解需求,再整合到實際專案裡去。這樣的方式更靈活,也更符合專案的現實需求。
RAG 不只是「技術炫技」,它本質上是一種「降低錯誤率的 AI 使用方式」。
我自己的心得:
這也是為什麼我常拿「魔法科高中的劣等生」來比喻,因為達也的魔法不強在能量,而是強在「精準構築」。
AI 的價值就是在這裡。
AI x Hardware 的領域很廣,從工廠到義診中心,從小車到風力發電,從金流到行銷,幾乎每個地方都能找到切入點。
我相信未來的趨勢不是「AI 取代人類」,而是 AI + 工程師/創作者 的組合,去打造更多實際能落地的解決方案。
RAG 只是其中一個核心手法,但它就像魔法陣一樣,能讓 AI 的輸出更有根據、更貼近現實。
而我參加鐵人賽的目的,也是想把這些經驗分享出來,讓更多人知道:
AI x Hardware 不是遙不可及的黑科技,而是可以在日常專案裡一步步實踐的魔法。